উদাহরণসহ GPU ব্যবহার করে মডেল ইনফারেন্স

GPU ব্যবহার করে Stable Diffusion মডেল ইনফারেন্স করার জন্য নিম্নলিখিত পদক্ষেপগুলি অনুসরণ করতে পারেন। এখানে উদাহরণ সহ নির্দেশিকা প্রদান করা হলো:

১. প্রয়োজনীয় লাইব্রেরি ইনস্টল করুন

প্রথমে, নিশ্চিত করুন যে আপনার সিস্টেমে PyTorch এবং অন্যান্য প্রয়োজনীয় লাইব্রেরি ইনস্টল করা আছে। যদি না থাকে, তাহলে ইনস্টল করুন:

pip install torch torchvision torchaudio --extra-index-url https://download.pytorch.org/whl/cu117
pip install diffusers transformers accelerate

২. মডেল লোড করুন

GPU তে মডেল ইনফারেন্স করার জন্য আপনাকে torch_dtype প্যারামিটারটি সঠিকভাবে সেট করতে হবে:

import torch
from diffusers import StableDiffusionPipeline

# মডেল লোড করুন
model_id = "CompVis/stable-diffusion-v1-4"
pipe = StableDiffusionPipeline.from_pretrained(model_id, torch_dtype=torch.float16)
pipe = pipe.to("cuda")  # মডেলকে GPU তে স্থানান্তর করুন

৩. প্রম্পট সেট করুন এবং ইনফারেন্স করুন

প্রম্পট সেট করুন এবং ইমেজ জেনারেট করার জন্য ইনফারেন্স করুন:

# প্রম্পট
prompt = "A beautiful landscape with mountains and a river"

# ইনফারেন্স করুন
with torch.no_grad():  # গ্রেডিয়েন্ট হিসাব করা থেকে বিরত থাকুন
    image = pipe(prompt).images[0]  # প্রথম ইমেজটি নিন

# ইমেজ সংরক্ষণ করুন
image.save("generated_image.png")

৪. একাধিক ইমেজ জেনারেট করা (Batch Processing)

যদি আপনি একাধিক ইমেজ জেনারেট করতে চান, তাহলে একটি ব্যাচে ইনফারেন্স করতে পারেন:

prompts = [
    "A futuristic city",
    "A serene beach",
    "A magical forest"
]

# ইনফারেন্স করুন এবং ইমেজ সংরক্ষণ করুন
with torch.no_grad():
    images = pipe(prompts).images  # ব্যাচে ইনফারেন্স
    for idx, img in enumerate(images):
        img.save(f"generated_image_{idx}.png")  # ইমেজ সংরক্ষণ

৫. GPU ব্যবহার নিশ্চিত করুন

আপনি নিশ্চিত করতে পারেন যে GPU ব্যবহার হচ্ছে কিনা:

# সিস্টেমে GPU আছে কিনা তা পরীক্ষা করুন
if torch.cuda.is_available():
    print("GPU is available!")
else:
    print("GPU is not available.")

উপসংহার

এই পদক্ষেপগুলি অনুসরণ করে, আপনি Stable Diffusion মডেল ইনফারেন্স GPU ব্যবহার করে করতে পারবেন। GPU ব্যবহার করলে ইনফারেন্সের গতি বৃদ্ধি পাবে এবং আপনি উচ্চ রেজল্যুশনে ইমেজ জেনারেট করতে পারবেন। যদি আপনার আরও প্রশ্ন থাকে, তাহলে জানাবেন!